Amazon Bedrock이 서울 리전에서 사용할 수 있게 되었습니다.
2024.10.05안녕하세요 클래스메소드 김재욱(Kim Jaewook) 입니다. 이번에는 Amazon Bedrock이 서울 리전에서 사용할 수 있게 되었으므로 Amazon Bedrock에 대해 살펴보았습니다.
서울 리전에서 Amazon Bedrock 출시
2024년 10월 2일 서울 리전에서 Amazon Bedrock을 사용할 수 있게 되었습니다.
관련 내용은 아래 기사를 통해 확인할 수 있습니다.
Amazon Bedrock이 뭐야?
공식 문서를 살펴보면, Amazon Bedrock에 대해서 다음과 같이 기술하고 있습니다.
Amazon Bedrock은 AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI 및 Amazon과 같은 선도적인 AI 회사의 고성능 대규모 언어 모델(LLM) 및 기타 FM을 단일 API를 통해 선택할 수 있는 완전 관리형 서비스입니다.
즉, 생성 AI의 기본 모델을 API를 통해 사용할 수 있는 완전 관리형 서비스이며, 사전 학습된 Foundation Model (FM)을 단일 API로 선택할 수 있어 다양한 상황에서 활용할 수 있습니다.
여기서 말하는 Foundation Model (FM)은 방대한 양의 데이터를 기반으로 훈련된 머신 러닝(ML) 모델로, 여러 가지 작업에 걸쳐 활용될 수 있는 특징을 가지고 있습니다. 이 모델은 특히 언어 이해, 텍스트 및 이미지 생성, 자연어 처리와 같은 다양한 작업을 수행하는 데 매우 유용합니다.
Amazon Bedrock 특징
조금 전 설명했던 것처럼 Amazon Bedrock은 Foundation Model (FM)을 선택할 수 있으므로 사용자가 직접 복잡한 AI 모델을 직접 만들지 않아도 자연어 처리, 텍스트 및 이미지 생성, 대화형 AI 등 다양한 작업을 수행하는 AI 모델을 쉽게 활용할 수 있는 것이 특징입니다.
- 다양한 모델 제공: Amazon Bedrock은 AI 스타트업과 Amazon이 개발한 여러 Foundation Model(FM)을 제공하고 있습니다.
- 맞춤형 모델 생성: 사용자는 Amazon Bedrock에서 제공하는 사전 훈련된 모델을 기반으로, 비즈니스 요구에 맞게 자체 데이터를 사용하여 Foundation Model(FM)을 튜닝할 수 있습니다.
- 서버리스: Amazon Bedrock은 서버리스 환경을 제공하여, 인프라를 관리할 필요가 없습니다.
- 확장성과 통합성: Amazon Bedrock은 Amazon SageMaker와 같은 서비스와 함꼐 사용할 수 있으며, AWS의 다른 서비스와 쉽게 통합할 수 있습니다.
Amazon Bedrock에서 사용할 수 있는 모델
현재 서울 리전에서는 세 가지의 모델을 사용할 수 있습니다.
- Titan Text Embeddings V2 : 텍스트를 임베딩(embedding) 형태로 변환하여 의미적 유사성을 분석하는 데 사용됩니다. 주로 검색, 추천 시스템, 문서 분류 등에서 활용될 수 있습니다.
- Claude 3.5 Sonnet : 자연어 처리(NLP)에 최적화된 생성형 AI 모델로, 대규모 텍스트 생성을 지원합니다. 대화형 AI, 문서 작성, 자동 응답 시스템 등 다양한 응용 분야에서 활용 가능합니다.
- Claude 3 Haiku : 경량화된 NLP 모델로, 빠르고 효율적인 텍스트 생성을 지원합니다. 단순한 자연어 처리 작업이나 간단한 대화형 AI 시스템에서 성능을 발휘합니다.
앞으로 서울 리전에서 사용할 수 있는 모델들이 더 추가될 것으로 예상되며, 현재 각 리전에서 사용할 수 있는 모델 그리고 현재 AWS에서 어떤 모델을 지원하고 있는지는 아래 AWS 공식 문서에서 확인할 수 있습니다.
Amazon Bedrock 요금
Amazon Bedrock은 2024년 10월 기준으로 Amazon Titan Text Embeddings V2 모델을 선택했을 시 입력 토큰 1,000개당 요금 USD 0.000024592가 청구되며, 출력 토근은 요금이 발생하지 않습니다.
Amazon Bedrock 요금은 아래 AWS 공식 문서에서 확인할 수 있습니다.
다른 서비스와는 조금 다른 점이 있다면「토큰」이라는 표현을 사용하고 있는데, Amazon Bedrock에서 말하는 토큰은 사용자 입력과 모델이 학습하는 텍스트의 문자 집합을 의미합니다.
Amazon Bedrock을 사용하기 위한 주요 용어에 대해서는 아래 AWS 공식 문서에서 확인할 수 있습니다.
Amazon Bedrock 워크숍
이 외에도 별도로 AWS에서는 Amazon Bedrock 워크숍을 제공하고 있기 때문에 Amazon Bedrcok에 대해 관심 있으신 분들 혹은 Amazon Bedrock을 테스트해 보고 싶은 분들은 워크숍을 통해 Amazon Bedrcok에 대해 학습해 보도록 합시다.
본 블로그 게시글을 읽고 궁금한 사항이 있으신 분들은 [email protected]로 보내주시면 감사하겠습니다.
